On the Impact of Forgetting on Learning Machines

People tend not to have perfect memories when it comes to learning, or to anything else for that matter. Most formal studies of learning, however, assume a perfect memory. Some approaches have restricted the number of items that could be retained. We introduce a complexity theoretic accounting of memory utilization by learning machines. In our new model, memory is measured in bits as a function of the size of the input. There is a hierarchy of learnability based on increasing memory allotment. The lower bound results are proved using an unusual combination of pumping and mutual recursion theorem arguments. For technical reasons, it was necessary to consider two types of memory: long and short term

Quantum computation with devices whose contents are never read

In classical computation, a "write-only memory" (WOM) is little more than an oxymoron, and the addition of WOM to a (deterministic or probabilistic) classical computer brings no advantage. We prove that quantum computers that are augmented with WOM can solve problems that neither a classical computer with WOM nor a quantum computer without WOM can solve, when all other resource bounds are equal. We focus on realtime quantum finite automata, and examine the increase in their power effected by the addition of WOMs with different access modes and capacities. Some problems that are unsolvable by two-way probabilistic Turing machines using sublogarithmic amounts of read/write memory are shown to be solvable by these enhanced automata.Comment: 32 pages, a preliminary version of this work was presented in the 9th International Conference on Unconventional Computation (UC2010

Nondeterministic Query Algorithms

Query algorithms are used to compute Boolean functions. The definition of the function is known, but input is hidden in a black box. The aim is to compute the function value using as few queries to the black box as possible. As in other computational models, different kinds of query algorithms are possible: deterministic, probabilistic, as well as nondeterministic. In this paper, we present a new alternative definition of nondeterministic query algorithms and study algorithm complexity in this model. We demonstrate the power of our model with an example of computing the Fano plane Boolean function. We show that for this function the difference between deterministic and nondeterministic query complexity is 7N versus O(3N)

On computation in the limit by non-deterministic Turing machines

Klimatfrågan är ett exempel på en fråga som varit närvarande i det offentliga samtalet under en lång tidsperiod, men som på kort tid har gått från att vara ett ämne som framför allt diskuterats inom vetenskapssamhället och på den politiska arenan, till att förekomma i stort sett dagligen i mediedebatten och i lekmäns vardagssamtal. Alltsedan klimatfrågan först började diskuteras på den vetenskapliga arenan har den omgärdats av olika typer av osäkerhet. I en analys av hur diskursen om klimatförändringar gestaltat sig på olika samhälleliga arenor pekar Corfee-Morlot m fl (2007) på att den vetenskapliga diskussionen ännu in på 1980-talet karakteriserades av en grundläggande osäkerhet. Debatten gällde om det fanns skäl att överhuvudtaget tala om en växt-huseffekt med global uppvärmning och förändrade nederbördsmönster som konsekvens. Vidare har vetenskapssamhället diskuterat om kli-matförändringarna i så fall är en följd av människans utsläpp av växthusgaser, eller om de har naturliga orsaker. Denna grundläggande osäkerhet har numera till stor del försvunnit från den vetenskapliga arenan. En majoritet av klimatforskare är idag ense om att vi har en klimatförändring som till stor del är ett resultat av mänsklig påverkan (IPCC 2007). Däremot finns det oenighet på det vetenskapliga planet om hur stora klimatförändringarna kan väntas bli och vilka effekter de kommer att få i olika delar av världen. På det politiska planet har strider uppstått kring hur klimatförändringarna ska mötas (Featherstone m fl 2009)– hur stora utsläppsminskningar behövs och vem ska stå för de minskade utsläppen? Vilka anpassningar behöver göras på lokalt, na-tionellt och internationellt plan för att hantera samhällets sårbarhet inför klimatförändringarnas effekter, såsom exempelvis ras, skred och översvämningar? I denna debatt, som fått stort utrymme i media under den senaste tiden, exponeras allmänheten för en rad motstridiga budskap. Det framhålls ofta att alla måste ta sitt ansvar för att skapa mer ”klimatsmarta” och hållbara livsstilar (t ex SOU 2005:51). Hur en sådan livsstil bör se ut är däremot inte lika tydligt. Det svenska samhällets sårbarhet för ras och skred har lyfts fram i klimat- och sårbarhetsutredningen, som lades fram år 2007 och som fick stor uppmärksamhet i svenska media. Utredningen pekar på att antalet dagar med kraftig nederbörd kommer att öka under vinter, vår och höst i stora delar av Sverige. Detta tillsammans med ökande flöden i vattendrag samt höjda och varierande grundvattennivåer medför en ökad risk för skred och ras. Störst är risken i Vänerlandskapen, östra Svealand, Göta Älvdalen och utmed större delen av ostkusten (SOU 2007: 60). Diskussioner förs på lokal, regional och nationell nivå kring hur man bör anpassa sig till riskerna. Samtidigt finns det inte en entydig anpassningsstrategi som passar överallt. SGI pekar i sin underlags-rapport till klimat- och sårbarhetsutredningen på att konsekvenserna av klimatförändringarna i form av ras och skred kommer att se olika ut i olika delar av Sverige. Därmed behövs också olika lokala anpassningsstrategier (SGI 2008). I detta ligger en kommunikationsutmaning. Hur kan man kommunicera vetenskapligt underbyggda klimatbudskap till olika målgrupper med olika bakgrund och olika tolkningsramar? Hur hanteras osäkerheter i kommunikationsprocessen? Denna text syftar till att belysa forskning kring klimatkommunikation och allmänhetens förståelse av klimatfrågan samt att diskutera hur osäkerheter kan kommuniceras i olika sammanhang. Jag kommer att argumentera för att en öppen diskussion kring dataosäkerheter och osäkerhet kring mål för utsläppsminskning och anpassningsstrategier i vissa fall kan fungera som en viktig del i att forma så kallade ”extended peer communities”, där många aktörer tillsammans kan engageras i arbetet för att hantera klimatutmaningarna

The Functions of Finite Support: A Canonical Learning Problem

The functions of finite support have played a ubiquitous role in the study of inductive inference since its inception. In addition to providing a clear and simple example of a learnable class, the functions of finite support are employed in many proofs that distinguish various types and features of learning. Recent results show that this ostensibly simple class requires as much space to learn as any other learnable set and, furthermore, is as intrinsically difficult as any other learnable set. Since the class of functions of finite support sit at the top of two very different complexity hierarchies, this class is a candidate for being a canonical learning problem. We argue for this point in the paper and discuss the ramifications

The Functions of Finite Support: A Canonical Learning Problem

The functions of finite support have played a ubiquitous role in the study of inductive inference since its inception. In addition to providing a clear and simple example of a learnable class, the functions of finite support are employed in many proofs that distinguish various types and features of learning. Recent results show that this ostensibly simple class requires as much space to learn as any other learnable set and, furthermore, is as intrinsically difficult as any other learnable set. Since the class of functions of finite support sit at the top of two very different complexity hierarchies, this class is a candidate for being a canonical learning problem. We argue for this point in the paper and discuss the ramifications

Deterministic Frequency Pushdown Automata

A set L is (m, n)-computable iff there is a mechanism which on input of n different words produces n conjectures whether these words are in L, respectively, such that at least m of these conjectures are right. Prior studies dealt with (m, n)- computable sets in the contexts of recursion theory, complexity theory and the theory of finite automata. The present work aims to do this with respect to computations by deterministic pushdown automata (using one common stack while processing all input words in parallel). We prove the existence of a deterministic context-free language L which is recognised by an (1, 1)-DPDA but fails to be recognised by any (m, n)-DPDA, where n ≥ 2 and m ≥ n/2+1. This answers a question posed by Eli Shamir at LATA 2013. Furthermore, it is shown that there is a language L such that, for all m, n with m ≤ n/2, L can be recognised by an (m, n)-DPDA but, for all m, n with 1 ≤ m ≤ n, L cannot be recognised by (m, n)-DFA

A Combinatorial Model of Two-Sided Search

Aydinian H, Cicalese F, Deppe C, Lebedev V. A Combinatorial Model of Two-Sided Search. In: Freivalds RM, Engels G, Catania B, eds. SOFSEM 2016: Theory and Practice of Computer Science. Lecture Notes in Computer Science. Vol 9587. Berlin: Springer; 2016: 148-160